MaxPoolGrad ================= 描述 MaxPool 的反向传播（梯度）计算。该算子将上游梯度（dy）只回传到前向最大池化过程中被选为最大值的位置；其它位置的梯度为 0。 数学定义: .. math:: \text{output}_{b,\ h_i,\ w_i,\ c} = \begin{cases} \text{dy}_{b,\ h_o,\ w_o,\ c}, & \text{if } (h_i,\ w_i) = \displaystyle \arg\max_{(h,w)\in\mathcal{W}(h_o,w_o)} \text{input}_{b,\ h,\ w,\ c}, \\ 0, & \text{otherwise}. \end{cases} 其中，:math:`\mathcal{W}(h_o, w_o)` 表示输出位置 :math:`(h_o, w_o)` 对应的池化窗口区域。窗口像素位置 :math:`(h, w)` 可表示为： .. math:: h = h_o \cdot \text{stride}_h - \text{pad}_u + \Delta h .. math:: w = w_o \cdot \text{stride}_w - \text{pad}_l + \Delta w .. math:: \Delta h \in [0,\ \text{win}_h - 1], \qquad \Delta w \in [0,\ \text{win}_w - 1] 并且仅当采样点落在输入有效范围内时会被考虑： .. math:: 0 \le h < \text{in}_h, \qquad 0 \le w < \text{in}_w. 实现细节说明: - 前向池化使用窗口 :math:`\text{win}_h \times \text{win}_w`，步长为 :math:`\text{stride}_h`, :math:`\text{stride}_w`，并且在边界处使用 pad（pad\_u, pad\_l）。 - 反向传播时，输出梯度 tensor（即需要写入的输入梯度）在每个 batch 开始前先被初始化为 0（代码中有一次整体清零）。 - 对于每个输出像素 :math:`(h_o,w_o)` 以及每个通道 c： - 在对应的输入窗口中找到前向最大值的位置 :math:`(h^*,w^*)`； - 将上游梯度 :math:`\text{dy}_{b,h_o,w_o,c}` 累加到该位置：:math:`\text{output}_{b,h^*,w^*,c} \mathrel{+}= \text{dy}_{b,h_o,w_o,c}`。 - 其他位置梯度保持 0。 输入: - **input** - 输入张量指针，采用 **NHWC 格式**，形状为 :math:`[batch,\ in\_h,\ in\_w,\ channel]` - **dy** - 上游梯度张量指针，采用 **NHWC 格式**，形状为 :math:`[batch,\ output\_h,\ output\_w,\ channel]` - **in_w** - 输入张量的宽度 (W) - **in_h** - 输入张量的高度 (H) - **win_w** - 池化窗口的宽度，即窗口在 W 方向的大小 - **win_h** - 池化窗口的高度，即窗口在 H 方向的大小 - **output_w** - 输出特征图的宽度 - **output_h** - 输出特征图的高度 - **batch** - 批次大小，即输入中的 batch 数 - **channel** - 通道数 C ，每个池化位置都分别对 C 个通道独立执行最大池化与裁剪 - **stride_w** - 池化窗口在 W 方向的步长 - **stride_h** - 池化窗口在 H 方向的步长 - **pad_l** - 输入特征图左侧的填充大小 - **pad_u** - 输入特征图上侧的填充大小 - **minf** - 输出结果的下界值。池化结果会执行 :math:`\max(v,\ \text{minf})` - **maxf** - 输出结果的上界值。池化结果会执行 :math:`\min(v,\ \text{maxf})` - **core_mask** - 核心掩码，指定使用的计算核心 输出: - **output** - 输出张量指针，采用 **NHWC 格式**，形状为 :math:`[batch,\ in\_h,\ in\_w,\ channel]`。 支持平台： ``FT78NE`` ``MT7004`` .. note:: - FT78NE 支持fp32, fp64 - MT7004 支持fp16, fp32 - 调用时将除 core_mask 外的参数打包通过 long long params 数组传入，顺序为： input, dy, output, in_w, in_h, win_w, win_h, output_w, output_h, batch, channel, stride_w, stride_h, pad_l, pad_u, minf, maxf **共享存储版本:** .. c:function:: void hp_maxpool_grad_s(long long *params, int core_mask) .. c:function:: void fp_maxpool_grad_s(long long *params, int core_mask) .. c:function:: void dp_maxpool_grad_s(long long *params, int core_mask) **C调用示例：** .. code-block:: c :linenos: :emphasize-lines: 47 //FT78NE示例 #include int main(int argc, char* argv[]) { double* input_ptr = (double*)0xA0000000; double* dy_ptr = (double*)0xB0000000; double* output_ptr = (double*)0xC0000000; double* check_ptr = (double*)0xD0000000; int in_w = gin_w; int in_h = gin_h; int win_w = 6; int win_h = 6; int batch = gbatch; int channel = 2; int stride_w = 4; int stride_h = 4; int pad_l = 1; int pad_u = 1; double minf = 0.0f; double maxf = 50.0f; // 根据标准公式计算输出尺寸 int dividor = in_w + pad_l*2 - win_w; int output_w = (dividor + stride_w - 1) / stride_w + 1; int dividor2 = in_h + pad_u*2 - win_h; int output_h = (dividor2 + stride_h - 1) / stride_h + 1; long long params[17]; params[0] = (long long)input_ptr; params[1] = (long long)dy_ptr; params[2] = (long long)output_ptr; params[3] = (long long)in_w; params[4] = (long long)in_h; params[5] = (long long)win_w; params[6] = (long long)win_h; params[7] = (long long)output_w; params[8] = (long long)output_h; params[9] = (long long)batch; params[10] = (long long)channel; params[11] = (long long)stride_w; params[12] = (long long)stride_h; params[13] = (long long)pad_l; params[14] = (long long)pad_u; params[15] = (long long)&minf; //注意这里传指针，不能直接强制转换成long long params[16] = (long long)&maxf; int core_mask = 0x0f; fp_maxpool_grad_s(params, core_mask); return 0; } **私有存储版本:** .. c:function:: void hp_maxpool_grad_p(long long *params) .. c:function:: void fp_maxpool_grad_p(long long *params) .. c:function:: void dp_maxpool_grad_p(long long *params) **C调用示例：** .. code-block:: c :linenos: :emphasize-lines: 46 //FT78NE示例 #include int main(int argc, char* argv[]) { double* input_ptr = (double*)0xA0000000; double* dy_ptr = (double*)0xB0000000; double* output_ptr = (double*)0xC0000000; double* check_ptr = (double*)0xD0000000; int in_w = gin_w; int in_h = gin_h; int win_w = 6; int win_h = 6; int batch = gbatch; int channel = 2; int stride_w = 4; int stride_h = 4; int pad_l = 1; int pad_u = 1; double minf = 0.0f; double maxf = 50.0f; // 根据标准公式计算输出尺寸 int dividor = in_w + pad_l*2 - win_w; int output_w = (dividor + stride_w - 1) / stride_w + 1; int dividor2 = in_h + pad_u*2 - win_h; int output_h = (dividor2 + stride_h - 1) / stride_h + 1; long long params[17]; params[0] = (long long)input_ptr; params[1] = (long long)dy_ptr; params[2] = (long long)output_ptr; params[3] = (long long)in_w; params[4] = (long long)in_h; params[5] = (long long)win_w; params[6] = (long long)win_h; params[7] = (long long)output_w; params[8] = (long long)output_h; params[9] = (long long)batch; params[10] = (long long)channel; params[11] = (long long)stride_w; params[12] = (long long)stride_h; params[13] = (long long)pad_l; params[14] = (long long)pad_u; params[15] = (long long)&minf; //注意这里传指针，不能直接强制转换成long long params[16] = (long long)&maxf; fp_maxpool_grad_p(params); return 0; }